Служител на NSA предупреждава за хакери, които използват изкуствен интелект, за да усъвършенстват английския си във фишинг схеми

НЮ ЙОРК — Хакери и пропагандисти се обръщат към чатботове с генеративен изкуствен интелект като ChatGPT, с цел да създадат интервенциите си по-убедителни за говорещите британски език, сподели почитан чиновник в Агенцията за национална сигурност във вторник.

Говорейки на Международната конференция за киберсигурност в университета Фордъм, шефът по киберсигурността на NSA Роб Джойс сподели, че шпионската организация е виждала както киберпрестъпници, по този начин и хакери които работят за задгранични разследващи организации, употребявайки тези чатботове, с цел да наподобяват по-скоро като говорещи британски език.

„ Вече виждаме незаконни детайли и детайли от национална страна, употребяващи AI “, сподели той. „ Виждаме разследващи оператори, виждаме нарушители на тези платформи. “

„ Днес те са доста по-добри в англоезичното наличие “, сподели Джойс.

Докато генеративните AI чатботове постоянно създават неточна информация, технологията бързо стана извънредно умела в имитирането на безапелационно и граматически вярно писане.

Хакерските интервенции постоянно разчитат частично на за фишинг схеми, употребявани за заблуждение на разположение да даде персоналната си информация. Правителството на Съединени американски щати, откриватели и софтуерни компании неведнъж са упреквали страни като Русия в образуване на онлайн пропагандни акции посредством основаване на сметки, които подправено се показват за американски консуматори. Generative AI оказва помощ на хакерите да усъвършенстват и генерират своите връзки, което прави злонамерената онлайн активност по-убедителна, сподели Джойс.

„ Едно от първите неща, които вършат, е, че просто генерират по-добър британски езиков достъп до техните жертви, без значение дали става въпрос за фишинг имейли или нещо доста по-сложно при положение на злонамерено въздействие “, сподели той.

Джойс не назова съответна компания за ИИ, само че сподели, че казусът е необятно публикуван.

„ Всички те са абонирани за компании с огромни имена, които бихме очаквали, всички генеративни AI модели там “, сподели той.

Повечето генеративни AI услуги споделят, че не разрешават техните артикули да се употребяват за незаконна активност. Но това постоянно е банално. NBC News съумя елементарно да убеди ChatGPT на OpenAI и Bard на Гугъл да основат безапелационни фишинг имейли във вторник.

В изказване представител на Гугъл сподели: „ Имаме политики и отбрани против потребление на генериране на наличие за лъжливи или лъжливи действия като фишинг. Въпреки че потреблението на генериращ AI за реализиране на негативни резултати е проблем във всички LLM, ние изградихме значими защитни парапети в Bard, които ще продължим да подобряваме с течение на времето. “

OpenAI не отговори незабавно на искане за коментар.

От друга страна, AI става все по-полезен инструмент за отбрана на киберсигурността, сподели Джойс. 

През септември шефът на NSA, ген. Пол М. Накасоне, разгласи основаването на Центъра за сигурност на изкуствения разсъдък, който Министерството на защитата назова в известие за пресата „ фокусна точка за създаване на най-хубави практики, методология за оценка и рамки за риск за поощряване на сигурното приемане на нови качества на AI в предприятието за национална сигурност и индустриалната база на защитата. “

Джойс сподели, „ Машинното образование с AI, задълбоченото образование безусловно ни прави по-добри в намирането на злонамерена активност. Помага ни да виждаме нещата осветени, тъй че да се открояват от нормата. “